EXCLUSIV| MAE vrea un sistem bazat pe IA cu care să monitorizeze site-uri, știri și rețele de socializare.”Nu vizează conturi individuale și persoane”

Ministerul Afacerilor Externe (MAE) vrea să găsească o firmă specializată în servicii bazate pe inteligența artificială (IA) care să îi furnizeze un program informatic și să îi instruiască angajații dedicați pentru a identifica pe toate canalele publice – site-uri, bloguri, rețele sociale – orice informații sau indicii care ar putea intra în categoria dezinformării, a propagandei și amenințărilor de tip hibrid. MAE susține, într-un răspuns transmis la solicitarea Gândul, că prin acest sistem bazat pe inteligență artificială vor fi analizate doar postările referitoare la politica externă și de securitate, fără a fi vizate conturile personale.

”Monitorizarea evoluțiilor din mediul online nu vizează conturi individuale și persoane, ci narative relevante în domeniul afacerilor externe, provenite din surse externe, strategii și rețele de viralizare a acestora”, au explicat oficialii MAE.

Potrivit reprezentaților diplomației, prin acest instrument bazat pe inteligență artificială se urmărește consolidarea capacității MAE de a contracara acțiuni străine de manipulare a informației și influență, „inclusiv pe fondul războiului ilegal și ilegitim pe care Federația Rusă îl poartă împotriva Ucrainei”.

Cadrul este unul „delicat”, mai ales după imensul scandal Cambridge Analytica, menționat chiar în documentele de lucru ale procedurii anterioare de licitație.

A doua licitație a fost lansată, după ce la primul demers s-au descoperit „erori sau omisiuni”, una dintre firmele care au depus oferte fiind anchetată de Consiliul Concurenței pentru posibile nereguli într-o altă procedură de achiziție publică.

Monitorizarea spațiului informațional pe subiecte subscrise domeniului de activitate nu reprezintă o practică non-democratică sau nocivă, ci este una uzuală în activitățile din aria comunicării publice, susține Ministerul Afacerilor Externe, în răspunsul la solicitarea Gândul de a explica de ce este necesară achiziția unui astfel de sistem de software.

Potrivit anunțului de participare de pe platforma Sistemului Electronic de Achiziții Publice (SEAP), MAE caută „Servicii – dezvoltare software IT instrument pentru detectarea, analizarea și combaterea dezinformării, propagandei și amenințărilor de tip hibrid și instruire utilizare platformă pentru derularea proiectului «Planificare strategică privind consolidarea rezilienței în fața dezinformării și a amenințărilor de tip hibrid»”.

De ce a fost anulată prima licitație. ”Erori sau omisiuni” în ofertă

Anunțul de lansare a celei de-a doua licitații a fost publicat pe 10 iunie – în timpul mandatului ministrului Bogdan Aurescu, respectiv cu cinci zile înainte de învestirea Guvernului Ciolacu -, iar data-limită de depunere a ofertelor a fost 17 iulie.

MAE nu a făcut încă publice numele firmelor care s-au înscris la această nouă procedură, ci doar a precizat că acum este etapa de evaluare tehnică și a calificării ofertantului/ofertanților, care are data-limită 10 octombrie, la fel ca și etapa de evaluare financiară. Ulterior se deliberează, iar dacă totul este conform legii și caietului de sarcini, contractul va fi atribuit firmei sau asocierii de firme câștigătoare (detalii procedură, aici).

Licitația anterioară fusese lansată în 22 martie 2023, dar a fost anulată printr-o decizie din 19 mai. Conform informațiilor oficiale, la acestă licitație a fost depusă o singură ofertă, făcută de către o asociere formată din două firme, respectiv Kontron Services Romania (lider) și MWARE Solutions.

Procedura a fost sistată în temeiul art. 212 alin (1) lit. c) din Legea nr. 98/2016 privind achizițiile publice, care prevede că autoritatea contractantă are obligaţia de a anula procedura de atribuire a contractului de achiziție publică/acordului-cadru dacă încălcări ale prevederilor legale afectează procedura de atribuire sau dacă este imposibilă.

„Se anulează achiziția având ca obiect servicii – dezvoltare IT instrument pentru detectarea, analizarea si combaterea dezinformării, propagandei si amenințărilor de tip hibrid și instruire utilizare platformă pentru derularea proiectului „Planificare strategică privind consolidarea rezilienței în fața dezinformării și a amenințărilor de tip hibrid”, cod SIPOCA/mySMIS nr. 865/136668, inițiată în conformitate cu art. 68 alin. (1) lit. a) din Legea nr. 98/2016 privind achizițiile publice, cu modificările și completările ulterioare, întrucât pe parcursul procedurii de atribuire s-au constatat erori sau omisiuni, iar autoritatea contractantă se află în imposibilitatea de a adopta măsuri corective fără ca aceasta să conducă la încălcarea principiilor prevăzute la art. 2 alin. (2). Achiziția se va relua la o dată ulterioară”, se arăta în decizia din 19 mai.

Potrivit articolului 2 alin. (2) din lege, principiile care stau la baza atribuirii contractelor de achiziţie publică şi a organizării concursurilor de soluţii sunt: nediscriminarea, tratamentul egal, recunoaşterea reciprocă, transparenţa, proporţionalitatea și asumarea răspunderii.

Documentul MAE nu dă detalii asupra tipului de „erori sau omisiuni” din oferta depusă. Numele liderului asocierii apare menționat, la aproximativ o lună și jumătate mai târziu, într-un comunicat al Consiliului Concurenței. Autoritatea de Reglementare în domeniu a anunțat, în 3 iulie, că a amendat Kontron Services România și alte două companii cu amenzi în valoare totală de aproximativ 20,5 milioane de lei (aproximativ 4,1 milioane de euro), pentru participarea cu oferte trucate la licitația organizată de Ministerul Afacerilor Interne (MAI), pentru realizarea centrului de furnizare de servicii electronice.

În aceeași zi, Nicoleta Macovei, reprezentantul Kontron Services România, a transmis, pe contul de pe LinkedIn, că „suntem nevinovați” și că firma va contesta sancțiunea Consiliului Concurenței.

Decizia de anulare MAE

MAE vrea un sistemul bazat pe IA care să poată procesa și acomoda sute de milioane de texte, imagini, date

Ministerul Afacerilor Externe vrea să dea 3,2 milioane de lei pentru contractul privind achiziția sistemului de monitorizare, care ar urma să se deruleze pe parcursul a patru luni.

Conform caietului de sarcini, în urma derulării serviciilor de dezvoltare va trebui să rezulte un instrument IT software, sub forma unei platforme integrate, bazat pe algoritmi avansați de inteligență artificială pentru analizarea și verificarea conținutului online, și care să poată determina originea acestuia.

• Instrumentul IT va conține un modul de analiză avansată și vizualizare de tip machine learning, un modul de analiză a informațiilor nestructurare pe baza utilizării metodelor statistice și a procesării limbajului natural, facilitând astfel descoperirea și extragerea modelelor și a relațiilor dintr-o colecție de texte.
• Instrumentul trebuie să fie unul matur, bazat pe tehnologii recunoscute în industrie, capabil să efectueze căutări și procesări complexe și să acomodeze sute de milioane de obiecte stocate (text, imagini, date structurate) pe o perioadă de cel puțin un an.
• Instrumentul IT va fi dezvoltat pe baza unei nucleu/soluție matură COTS sau open-source, cu referințe solide de implementare în alte infrastructuri similare de procesare date (referințe ce vor fi evidențiate în propunerea tehnică), care să asigure un timp cât mai scurt de implementare și punere în producție a platformei propuse. Nu vor fi acceptate soluții de tip cloud base sau bazate pe abonament lunar pentru volumul de date interne procesate.
• Instrumentul va fi instalat în infrastructura beneficiarului, iar toate licențele ofertate în cadrul proiectului trebuie să fie perpetue, fără limită de utilizatori sau volum de date procesate sau rezultate în urma proceselor de analiză și prelucrare, cu toate modulele incluse, astfel încât să asigure pentru limbile obligatorii (română și engleză) capacitatea de procesare necesară activităților de analiză, procesare și generare de rapoarte.
• Autoritatea contractantă va putea extinde ulterior capacitatea de procesare a instrumentului IT, în funcție de nevoi, prin adăugarea de noi limbi de lucru, din cele minim necesar a exista la momentul dezvoltării platformei, sau altele în funcție de disponibilitatea acestora în cadrul platformei existente, precum și prin adăugarea de noi noduri de analizare, procesare și raportare, prin simpla copiere/replicarea nodurilor existente în infrastructură și adăugarea lor în elementele de distribuție a încărcării și a expunerii serviciilor.
• În cadrul procesului de colectare a datelor din surse de tip Facebook, Twitter etc, unde procesul presupune interacțiune specifică cu respectivele sisteme, pe perioada de garanție și suport a instrumentului livrat, modulele de colectare vor fi dezvoltate și livrate pentru a asigura un volum de minimum 500 GB date colectate pe lună, fără costuri suplimentare pentru beneficiar.
• Modulul de colectare a datelor va trebui oferit astfel încât MAE, autoritatea contractantă, să poată extinde ulterior volumul de date minim ofertat, prin contractarea unei capacitați superioare de colectare.

Caiet de sarcini dezinformare MAE

Scandalul „Cambridge Analytics”, menționat în procedură

Una dintre cerințe din caietul de sarcini al actualei licitații, care se regăsește și în procedura anterioară anulată, a fost subiectul unei clarificări publicate de autoritatea cotractantă MAE, la o întrebare care face referire directă la celebrul scandal Cambrige Analytica. Compania cu acest nume, specializată în analizarea datelor online, implicată în campania președintelui SUA Donald Trump și în cea pro-Brexit, a exploatat în scop electoral datele de pe Facebook a zeci de milioane de cetățeni americani, în ceea un membru al echipei lui Steve Bannon, fostul strateg și consilier al lui Trump la Casa Albă, a numit drept „război psihologic”.

Mai concret, conform caietului de sarcini, „instrumentul IT va fi o soluție bazata pe un portal web în care reprezentanții desemnați din cadrul MAE vor accesa datele și informațiile necesare.

Sistemul trebuie să includă următoarele metrice (capitolului 7.12 – Metrice):

• ”sentiment, sentiment count
• scor influencer
• volum postări, articole, distribuiri în ultima ora, zi, luna etc.
• mumăr mediu de postări pe minut/ ora pentru anumite subiecte/ cuvinte cheie
• cele mai distribuite hashtag-uri și link-uri
• utilizatorii cei mai menționați în postări
• raportul postărilor/ distribuirilor
• creșterea evoluției într-o anumita perioada
• viralizare – bazat pe link-uri, distribuiri și comentarii”.

„Post scandalul «Cambridge Analytics», accesul public la aceste informații este restricționat sever la aceste informații pe toate platformele, astfel încât o parte din aceste cerințe nu mai sunt compatibile cu realitatea ultimilor 2-3 ani. Pot fi aceste metrici revizuite / actualizate / rafinate, eliminate acolo unde nu există suport pentru ele, în timpul etapei de analiză?”, era întrebarea operatorilor înscriși la procedură.

„Referitor al cerința capitolului 7.12 – Metrice, acestea sunt cerințele minime ce trebuie să se regăsească în sistemul livrat. În funcție de datele și modalitățile prin care aceste informații pot fi extrase din platformele interogate, este responsabilitatea ofertantului să identifice mecanismele prin care aceste detalii pot fi extrase sau calculate prin diverse alte mecanisme. Totodată, capitolul 7.12 face referire la metricele ce se regăsesc ca informații în sistemul ce se va livra, fiind aferente interogărilor specifice ce au fost configurate de utilizator (ex. – articolele în care apare MAE sau articole care fac referire la acțiunile MAE român pe plan internațional etc), aceste metrice fiind colectate, acolo unde se poate din cadrul platformelor interogate, iar în cazul în care aceste date nu sunt puse la dispoziție, ofertantul va identifica un mecanism alternativ de calculare a acestor metrice”, au precizat oficialii MAE în clarificări.

Clarificări prima licitație MAE AI anulată

Scandalul ”Cambridge Analytica” a subliniat impactul deosebit de negativ al utilizării algoritmilor în scopuri politice. În acest caz, compania care a obținut ilegal date personale de la milioane de utilizatori de rețele sociale a putut targeta anunțurile politice pe diferite grupuri sociale, concepute special pentru anumite profiluri psihologice.

Inteligența artificială (AI) este utilizată deja în decizii-cheie ale autorităților din statele membre Uniunea Europeană, cu impact asupra  vieții a milioane de europeni. Automatizarea poate îmbunătăți procesul decizional dar, în același timp, poate duce la greșeli, discriminare și încălcări ale drepturilor omului, avertizează Agenția UE pentru Drepturi Fundamentale (FRA), într-un raport dat publicității la finalul anului 2020.

Cum explică MAE achiziția sistemului bazat pe inteligență artificială cu care va monitoriza site-uri și știri

În răspunsul transmis Gândul, MAE subliniază necesitatea achiziționării acestor servicii pentru monitorizarea spațiului informațional pe subiecte din domeniul său de activitate.

„La nivelul MAE, aceasta se derulează atât în Centrală, cât și în misiunile diplomatice, pe subiecte de politică externă. Activitățile MAE și ale partenerilor săi respectă și promovează drepturile și libertățile fundamentale ale cetățenilor, dreptul la exprimare liberă și libertatea mass-media. Apariția media digitale și în mod particular a social media crește cu un ordin de magnitudine complexitatea analizării și înțelegerii mediului informațional”, a precizat Ministerul Afacerilor Externe.

În acest sens, achiziția instrumentului IT se derulează în cadrul proiectului cu finanțare europeană SIPOCA „Planificare strategică privind consolidarea rezilienței în fața dezinformării și a amenințărilor de tip hibrid”, derulat în parteneriat de MAE, SNSPA și E-ARC.

„Instrumentul IT dezvoltat prin acest proiect comun contribuie la obiectivul general de consolidare a capacității Ministerului Afacerilor Externe de a detecta, analiza și contracara fenomenul dezinformării online în domeniul afacerilor externe, respectiv de a anticipa, analiza și contracara acțiuni străine de manipulare a informației și influență, precum și de a contribui la consolidarea rezilienței la nivel național în fața acestor acțiuni”, precizează oficialii MAE, la solicitarea Gândul.

Conform sursei citate, proiectul a fost dezvoltat începând cu anul 2019 și depus în cadrul Programului Operațional Capacitate Administrativă 2014-2020, axa prioritară Administrație publică şi sistem judiciar eficiente, obiectivul specific fiind: Dezvoltarea și introducerea de sisteme și standarde comune în administrația publică ce optimizează procesele decizionale orientate către cetățeni și mediul de afaceri în concordanță cu SCAP.

Implementarea acestui proiect comun contribuie la operaționalizarea inițiativelor Comisiei Europene și a Serviciului European de Acțiune Externă de identificare, analizare și gestionare a amenințărilor de tip hibrid și consolidare a rezilienței sociale în Statele Membre în contextul amplificării acestor amenințări. Implementarea proiectului a început în anul 2020, precizează MAE.

„Monitorizarea evoluțiilor din mediul online nu vizează conturi individuale și persoane”

Reprezentanții MAE susțin că mecanismul necesar pentru identificarea, analizarea și conturarea unor mijloace de răspuns comunicațional adaptate evoluției fenomenului dezinformării privește exclusiv sfera de competență a MAE, respectiv politica externă și de securitate, politici consulare, relații bilaterale, dosare prioritare și altele.

Datele ce urmează să fie procesate de acest software sunt culese exclusiv din surse publice. Analizele care vor putea fi realizate cu acest tip de instrument sunt standard pentru problematica tratată și se realizează cu respectarea prevederilor GDPR. Monitorizarea evoluțiilor din mediul online nu vizează conturi individuale și persoane, ci narative relevante în domeniul afacerilor externe, provenite din surse externe, strategii și rețele de viralizare a acestora”, au explicat oficialii MAE.

Potrivit răspunsului transmis, proiectul vizează îmbunătățirea cunoștințelor și abilităților personalului MAE în domeniul identificării riscurilor ce provin din fenomenul dezinformării, a tendințelor și modelelor în evoluție în acest domeniu, a utilizării instrumentelor de comunicare publică și strategică, creșterea rezidentei la dezinformare în mediul online, adoptarea unor practici și abilități esențiale pentru aplicarea metodologiilor de cooperare interdepartamentală și schimbului de informații cu parteneri din UE și NATO.

MAE menționează că proiectul se raportează la exemplele de bună practică din UE, cum ar fi activitățile derulate de The European Centre of Excellence for Countering Hybrid Threats (Helsinki), primul centru de excelență din spațiul european, deținut, în comun, de către statele membre.

Conform sursei citate, în ultimii ani, organismele internaționale și instituțiile europene au depus eforturi pentru creșterea capacității actorilor statali și non-statali de a gestiona problemele legate de dezinformare în mediul online și de amenințări de tip hibrid, respectiv Grupul operativ pentru comunicarea strategică East StratCom și EU Fusion Cell împotriva amenințărilor hibride din cadrul Serviciului European de Acțiune Externă.

Proiectul este important cu atât mai mult în contextul agresiunii militare ruse din apropierea granițelor României.

Evoluțiile care au stat la baza realizării proiectului și a propunerii de dezvoltare a unui  instrument IT, numărul amenințărilor hibride, al atacurilor informaționale și al campaniilor de dezinformare din spațiul comunitar au accelerat în ultimii ani inclusiv pe fondul războiului ilegal și ilegitim pe care Federația Rusă îl poartă împotriva Ucrainei. Recent, state membre UE au denunțat un atac de durată, de mare amploare și de natură persistentă și sistematică bazat pe falsificarea unor informații media”, subliniază MAE.

„În condițiile în care Comisia Europeană și Parlamentul European au avertizat în mod constant asupra pericolelor generate de acțiunile de manipulare și interferență asupra și de amenințările hibride, România are nevoie de un cadru strategic de acțiune care să ofere posibilitatea de a gestiona și combate astfel de fenomene”, arată MAE.

Oficialii MAE atrag atenția asupra riscurilor în lipsa unor capacități de analiză a informațiilor false.

„Lipsa unor capacități de analiză care să permită detectarea, analizarea și contractarea informațiilor false și narativelor maligne, a campaniilor de dezinformare și influență generează imposibilitatea de a identifica în timp util posibilele amenințări și de a le gestiona, dar și de a identifica tendințele și de a înțelege dinamica fenomenului dezinformării online în ansamblul său. Dezvoltarea în parteneriat cu mediul academic și societatea civilă a unei competente avansate în materie face parte din contribuția României în formatele UE și NATO în materie”, au mai arătat oficialii MAE, în răspunsul transmis la solicitarea Gândul.